sparse training

稀疏训练是一种通过训练过程中设置稀疏性约束来减少模型参数的方法。 在稀疏训练中，模型的权重矩阵中有很多元素被设置为零，从而减少了模型的参数量。 稀疏训练的目标是通过约束模型的参数，使得模型只关注对任务有用的特征和信息，忽略无关的冗余参数。